CoEvo-RSI：当执行框架演化时，哪些模型应跟随？
🧭 Agent 递归自我提升 · 脑体协同演化
National University of Singapore · Agency for Science, Technology and Research (A*STAR) · SenseTime Group Inc.
用元智能体协调历史执行框架与模型检查点选择/合并，并用自身拒绝采样轨迹 SFT，减少递归自我提升中的脑体不匹配
📌 工作参考价值（3 点）
- 在电商/广告 Agent 链路中，每次改动工具、prompt 或执行脚手架时，不要只做 prompt 调优；维护“harness 版本—模型 checkpoint—执行反馈”档案，用元智能体在历史设计中选 checkpoint/合并，再在新 harness 下用 rejection-sampled 轨迹做 SFT，能明显降低脑体不匹配。
- 可建立“失败归因→局部更新”的轻量闭环：从线上执行日志筛出成功轨迹（例如 SQL 生成成功执行、指令被正确执行）做 rejection sampling，对 7B/9B 小模型做 SFT，成本低且可追上大模型；适合垂直场景的护栏优化。
- 模型合并/checkpoint 选择策略可作为“脑”的版本管理：当召回、排序、query 改写等 Agent 组件升级时，按执行反馈选择与当前 harness 兼容的历史 checkpoint 或融合多个 checkpoint，减少能力丢失与行为约束。
SFT冲突与RL共存：LLM多任务学习理论实证分析
🧭 多任务RL训练的解耦与并行化 ★ 深度解读
中国科学院自动化研究所 · 中国科学院大学 · 清华大学
多任务SFT导致性能崩溃，RL因梯度近似正交而共存，基于此提出Parallel-RL解耦并行训练
📌 工作参考价值（4 点）
- 多任务RL解耦训练：利用RL更新稀疏且近似正交，可对搜索/推荐的不同目标（如相关性、CTR、多样性）单独训练RL模型，再通过参数求和或平均合并，避免多阶段SFT带来的灾难性遗忘。
- 具体合并方法：先独立用GRPO训练各任务得到ΔW，合并时首选简单求和或平均；若存在干扰，采用TIES方法稀疏化合并，消除参数冲突；最后用少量混合数据（5%）快速适应，可进一步提升整体性能。
- 模块化能力注入：当需要向现有模型添加新能力（如新业务域）时，可对新任务进行RL微调，然后将ΔW合并入主模型，无需重训整个系统，且不影响原有任务表现。
- 训练范式选择指导：SFT更新范数大、任务间重叠高，不适合多阶段或并行训练；推荐系统中若需微调LLM，应优先使用RL，并在多任务设定下避免多阶段SFT，以保持旧任务性能。
适量即满足：RL如何缓解大模型任务冲突的全面分析
🧭 RL训练范式减轻任务冲突 ★ 深度解读
Institute of Automation, Chinese Academy of Sciences · Baidu Inc.
发现RL训练通过on-policy数据、优势衰减与正负联合优化显著减轻模型合并时的任务冲突
📌 工作参考价值（4 点）
- 当需要将多个专用LLM（如电商中的推荐解释生成、查询改写、商品文案生成）合并为一个部署模型时，优先使用RL（如GRPO、PPO）训练各子任务，可大幅降低合并后的性能退化，减少多模型维护成本。
- 训练数据生成采用on-policy方式（模型自身采样+奖励打分）而非静态SFT数据集，能有效减小参数更新幅度，从而降低跨任务参数冲突。
- 同时利用正样本（高奖励）和负样本（低奖励）进行联合优化，而不是像SFT仅依赖正例，这有助于学习更无偏的更新方向，提升不同任务模型合并时的兼容性。
- 在实际工程中，可结合参数平均或TIES等免训练合并策略，直接集成RL-trained任务专家模型，成本低且效果稳定，特别适合希望快速融合多个LLM能力的推荐或Agent系统。
利用指令微调与模型合并实现推理模型低成本领域适应
🧭 推理模型适应 · 指令微调+合并
ETH Zurich
先指令微调再与原始推理模型合并，低成本提升在难验证领域的性能
📌 工作参考价值（4 点）
- 若拥有特定领域的高质量SFT数据（如电商搜索意图、商品摘要），可对推理模型进行无推理痕迹的指令微调，再与原模型合并，以极低成本（<3美元）提升该领域效果，同时保留推理能力。
- 模型合并技巧可作为一种轻量领域适应方案，避免灾难性遗忘，适合在资源有限时快速迭代测试。
- 对于缺乏可靠自动评估的生成式推荐或Agent任务，可考虑用人类标注数据微调再合并，绕开难以设计的奖励函数。
- 方法简单稳健，适合嵌入现有LLM微调流水线，作为RLVR训练前的快速实验步骤。
解锁语音-文本组合能力：无需指令微调的遵循指令语音语言模型
🧭 语音语言模型 · 权重组合跨模态迁移
University of California, Santa Barbara · MIT-IBM Computing Research Lab, IBM Research
仅通过一次语音预训练后与文本指令微调向量权重相加，零语音指令数据实现指令遵循语音模型
📌 工作参考价值（4 点）
- 多模态助手低成本构建：可将已有强大指令遵循能力的文本LLM快速扩展为语音助手，仅需一轮语音适配预训练，无需昂贵的大规模语音指令数据，适合电商语音搜索、客服等场景快速原型。
- 权重算术即插即用：方法本质是模型融合（基座+任务向量），工程实现极其简单，可直接复用现有文本LLM的训练成果，减少重复训练成本，为Agent系统增加语音交互通道提供新范式。
- 模态能力解耦升级：当文本LLM基座或指令微调版本迭代时，只需重新计算任务向量并与原有语音适配权重组合，实现语音能力的快速升级，适合迭代快速的业务场景。
- 可推广到其他模态：该组合策略不限于语音，可借鉴用于图像、视频等模态的指令遵循迁移，为统一多模态推荐交互（如语音搜索、图像评论理解）提供统一框架。
频谱重连：探索、净化与模型合并
🧭 LLM 后训练参数频谱提炼与合并
Tsinghua AIR · ByteDance Seed
仅保留0.58%参数的频谱核心，维持RL微调推理能力并增强探索与多域融合
📌 工作参考价值（4 点）
- 在 RL 微调后，提取参数更新中的低维频谱核心，去除正交噪声，可作为轻量级后处理提升推理探索与测试时扩展（如高 k 采样），适用于推荐 Agent 策略微调。
- 方法仅需极少参数（<1%）保存推理核心，有助于多领域推荐模型的知识合并与解耦，避免跨域灾难性遗忘。
- 无训练合并技巧可集成到多专家推荐系统，融合不同业务场景微调的模型，提升跨域泛化。
- 参数几何的频谱分析方法可迁移至推荐模型参数更新分析，诊断微调对模型泛化能力的影响。
TPMM-DPO：轨迹感知偏好引导的模型融合用于迭代直接偏好优化
🧭 迭代 DPO 训练稳定性优化
Guangxi University
提出轨迹感知模型融合方法，用学习到的融合权重整合迭代 DPO 过程中的历史模型，构建更稳定的参考模型，有效抑制噪声累积和性能退化。
📌 工作参考价值（4 点）
- 迭代偏好对齐的稳定训练：在电商对话、推荐理由生成等用到迭代 DPO 的场景，直接用上一轮模型作为参考可能引入噪声累积。可借鉴 TPMM-DPO，保留历史模型轨迹，通过可学习融合权重动态构建参考模型，提升训练稳健性。
- 模型融合权重学习：相比简单平均，学习到的融合权重能更好地抑制噪声，可应用于其他需要集成多代策略模型的场景（如 Agent 多轮自我改进）。
- 偏好数据抗噪：当偏好标注存在噪声（如人工标注不一致、自动收集的反馈），该方法能减轻过拟合和性能波动，适合电商 UGC 环境下的大规模偏好数据训练。
- 工程实现简单：融合模块即插即用，一般是在线合并模型参数，无需额外训练奖励模型，可直接插入现有 DPO pipeline。